Trong thời kỳ đô hộ của quân Minh (1407 – 1428), Hương Khê là huyện Thổ Hoàng.

Thời nhà Hậu Lê, sáp nhập vào huyện Hương Sơn, phủ Đức Quang, xứ Nghệ An.

Năm Tự Đức thứ 21 (1868) trở thành huyện Hương Khê, tỉnh Hà Tĩnh.

Sau năm 1945, bỏ cấp phủ, châu, gọi chung là huyện. Huyện Hương Khê khi đó gồm có 37 xã: Hương Bình, Hương Quang, Hương Đại, Hương Điền, Hương Đô, Hương Đồng, Hương Gia, Hương Giang, Hương Hà, Hương Hải, Hương Hòa, Hương Lạc, Hương Lâm, Hương Liên, Hương Lĩnh, Hương Lộc, Hương Mai, Hương Phố, Hương Thịnh, Hương Long, Hương Minh, Hương Phong, Hương Phú, Hương Vĩnh, Hương Phúc, Hương Phương, Hương Thanh, Hương Luyện, Hương Thọ, Hương Thu, Hương Thủy, Hương Tân, Hương Trạch, Hương Vĩnh, Hương Xuân, Hương Yên, Hương Mỹ.

Năm 1971, 3 xã Hương Hà, Hương Thanh, Hương Thu sáp nhập thành xã Hà Linh; 2 xã Hương Lĩnh và Hương Lạc sáp nhập thành xã Phúc Trạch; 2 xã Hương Hòa và Hương Hải sáp nhập thành xã Hòa Hải; 2 xã Hương Lộc và Hương Yên sáp nhập thành xã Lộc Yên; 2 xã Hương Phú và Hương Gia sáp nhập thành xã Phú Gia; 2 xã Hương Phúc và Hương Đồng sáp nhập thành xã Phúc Đồng; xã Hương Phương chia thành 2 xã: Phương Điền và Phương Mỹ; xã Hương Phố và Hương Thịnh sáp nhập thành xã Gia Phố, đổi tên xã Hương Phong thành xã Phú Phong.

Năm 1976, là huyện Hương Khê, tỉnh Nghệ Tĩnh, gồm 24 xã: Gia Phố, Hà Linh, Hòa Hải, Hương Bình, Hương Đại, Hương Điền, Hương Đô, Hương Giang, Hương Lâm, Hương Liên, Hương Long, Hương Minh, Hương Thọ, Hương Thủy, Hương Trạch, Hương Vĩnh, Hương Xuân, Lộc Yên, Phú Gia, Phú Phong, Phúc Đồng, Phúc Trạch, Phương Điền, Phương Mỹ.

Ngày 23 tháng 2 năm 1977, thành lập thị trấn nông trường 20 tháng 4.[2]

Ngày 19 tháng 8 năm 1985, thành lập thị trấn Hương Khê, thị trấn huyện lỵ huyện Hương Khê.

Năm 1991, huyện Hương Khê thuộc tỉnh Hà Tĩnh vừa tái lập.

Năm 1992, thành lập xã Vũ Quang.

Đến năm 2000, huyện Hương Khê có thị trấn Hương Khê (huyện lỵ), thị trấn Nông trường 20 tháng 4 và 25 xã: Gia Phố, Hà Linh, Hòa Hải, Hương Bình, Hương Đại, Hương Điền, Hương Đô, Hương Giang, Hương Lâm, Hương Liên, Hương Long, Hương Minh, Hương Quang, Hương Thọ, Hương Thủy, Hương Trạch, Hương Vĩnh, Hương Xuân, Lộc Yên, Phú Gia, Phú Phong, Phúc Đồng, Phúc Trạch, Phương Điền, Phương Mỹ.

Ngày 4 tháng 8 năm 2000, 5 xã nằm ở phía bắc huyện Hương Khê là: Hương Thọ, Hương Minh, Hương Đại, Hương Điền, Vũ Quang chuyển sang trực thuộc huyện Vũ Quang. Huyện Hương Khê còn lại 20 xã và 2 thị trấn.

Ngày 2 tháng 1 năm 2004, giải thể thị trấn nông trường 20 tháng 4 để thành lập xã Hương Trà.

Ngày 19 tháng 1 năm 2009, mở rộng thị trấn Hương Khê trên cơ sở sáp nhập 127,80 ha diện tích tự nhiên và 513 nhân khẩu của xã Hương Long; 89,08 ha diện tích tự nhiên và 792 nhân khẩu của xã Gia Phố; 41,14 ha diện tích tự nhiên và 431 nhân khẩu của xã Phú Phong; 3,25 ha diện tích tự nhiên và 77 nhân khẩu của xã Phú Gia.

Ngày 21 tháng 11 năm 2019, sáp nhập hai xã Phương Mỹ và Phương Điền thành xã Điền Mỹ.[3]

Huyện Hương Khê có 1 thị trấn và 20 xã như hiện nay.